从噪声、多样来源中学习高价值训练数据权重
🧭 训练数据加权 · 元梯度学习
Hiddenweights · Arena · UCLA · Stanford · CMU
用目标域小数据集元梯度优化训练样本权重，学得可泛化、可迁移的加权规则，提升奖励模型对噪声与合成数据的利用效率
📌 工作参考价值（4 点）
- 在电商/广告的 LLM 奖励模型或偏好对齐中，维护一个高质量目标域评测集（如人工标注的偏好对、业务 KPI 相关的判分），用元梯度自动学习每个训练样本的权重，替代手工噪声过滤规则，尤其适合点击日志、用户评论等噪声多样的数据。
- 参数化加权规则可以部署为流式数据选择器：对新到达的样本实时预测权重，做过滤或重采样，适合推荐系统的大规模 UGC、曝光点击日志等持续数据流，降低存储与训练成本。
- 合成数据与人工数据混合时不再依赖固定比例，而是学习每个样本的权重，让混合数据超过任一单独来源；可复用到生成式推荐的物品描述、query 改写、广告文案生成的合成数据利用场景。
- 先在小模型上学习数据权重规则，再迁移到更大模型，能显著降低大规模训练的数据清洗与调参成本，是一种工程上可行的 Data-Centric AI 方案。
LexReward：法律LLM的分类驱动多维奖励框架
🧭 LLM对齐 · 多维奖励建模
Peking University · Northeastern University · Tsinghua University
提出按Style/Element/Chain三维分解的法律奖励框架，用rubric构建偏好数据训练DPO和奖励模型
📌 工作参考价值（4 点）
- 把整体质量奖励拆成多个可诊断维度（如表达质量、关键要素、推理链），分别建模与优化；推荐/搜索生成式场景可类似拆成相关性、多样性、新颖性、转化意图等维度，避免单一粗粒度打分掩盖短板。
- 用 rubric 定义评估标准，让 LLM 对候选输出打分并构造偏好对，替代昂贵的人工标注；在电商文案生成、推荐理由、搜索 query 改写中可低成本生产 DPO 偏好数据。
- 维度专用 reward model 支持 RL 优化且不需要 reference answer，适合在线反馈稀疏、缺乏标准答案的生成任务；可在强化学习推荐或对话式推荐中作为 reward shaping 组件。
- 论文的维度分析思路可迁移到上线前评估：先对模型输出做多维自动评测，定位具体短板维度，再针对性做 DPO 或 RL 优化，而不是全局调参或重新训练。
奖励引导的 Agentic 广告视频生成框架
🧭 Agentic 生成 · 在线反馈 RL ★ 深度解读
ByteDance · Tsinghua University · The Chinese University of Hong Kong
将广告视频生成拆成策略选择与草稿生成，用在线反馈训练性能与质量奖励并通过DPO+GRPO优化，在TikTok显著提升CTR/CVR/Advv
📌 工作参考价值（4 点）
- 拆解生成管线，给业务反馈提供可优化抓手：不要端到端直接出最终创意，而是拆成「策略选择 + 草稿生成」两个阶段，分别用 process reward 和 outcome reward 监督。做电商广告文案/短视频生成时可借鉴：先让模型选择「改 BGM/加 hook/混剪」等策略，再生成具体脚本，使线上 CTR/CVR 能分别指导中间决策和最终内容。
- 用公平曝光管道收集偏好数据：自然流量中创意的 CTR 混杂召回/排序偏置，AgenticGen 采用同一产品下 N=12 个候选随机曝光、绕过排序、至少 1000 曝光才有效的 impression-balanced 管道。创意优选和生成式广告系统的 reward 建模都应优先采用此类剥离偏置的数据协议，再构造同产品上下文内的 pairwise BT 偏好。
- 性能 reward 与质量 rubric 必须互补：单独用 CTR 学 reward 容易偏向 clickbait；引入专家 rubric 并用「三人一致才保留」的人工标注训练质量 reward，GRPO 融合权重（文中 λ_draft=0.6 偏性能）可同时保住在线效果和创作质量。业务上可复制：在线指标 reward + 平台内容规范 reward 一起进 RL。
- 多模态特征工程与稳定训练 trick：性能 reward 输入视频帧、音频/ASR、结构化故事线、广告特征；音频带来最大单点增益（+1.88%）。DPO 加 NLL 正则（λ=0.2）防格式崩坏，GRPO 中多 reward min-max 归一化并用 group-relative advantage；这些都可直接迁移到广告创意生成和评估。
SSR-GRPO：融合监督与语义ID的强化学习电商稠密检索
🧭 电商稠密检索 · Semantic ID + RL ★ 深度解读
Alibaba Group
用层级语义ID替代大模型裁判并构造难负样本，提升电商稠密检索的RL训练稳定性
📌 工作参考价值（4 点）
- 用 RQ-VAE 学层级 Semantic ID 作为稀疏 relevance 信号：item 量化成 3 层 SID，query 用 LLM 生成 SID，按前缀匹配深度打分（0/0.25/0.5/1.0），与 dense embedding 融合后替代 Judge LLM。SID-only 效果已接近 42B MoE 判官，训练成本低且减少裁判偏置，适合电商召回模型 RL 落地。
- 难负样本构造可复用：Type II 共享前两层 SID、只差第三层的负样本能逼迫模型学细粒度语义边界；Type I 用进入粗排但被精排低分过滤的样本，作为“语义相关但商业弱”的负样本，适合电商 CTR/CVR 目标。
- Masking 机制：GRPO 中 top-K 候选里 reward 低于 hard negative 的样本直接 mask 掉，可过滤 batch 内噪声 easy negatives，缓解 Reward Hacking；类似 DeepSeek V3.2 的 off-policy sequence masking。
- 多目标联合优化：RL 梯度方差大，用 R-DPO（无 reference policy 的 pairwise margin loss）提供稳定监督梯度，配合 uncertainty-based dynamic weighting 避免手动调权；同时 SFT 初始化不可省略，RL-only 效果很差。
推荐基础模型的渐进式多阶段后训练与业务对齐
🧭 推荐基础模型的渐进后训练与奖励对齐 ★ 深度解读
NAVER WEBTOON
通过三阶段渐进后训练（LP→FFT→RFT）分离适配与对齐，用奖励模型引导策略优化，显著提升深度业务指标
📌 工作参考价值（4 点）
- 当基础模型适配下游任务时，先做线性探测（LP）冻结骨干训练 Task Head，再做全参数微调（FFT），并使用差异化学习率（骨干学习率 1/10），可有效缓解灾难性遗忘，稳定适配过程。
- 不要直接将面向业务指标的奖励模型作为排序策略部署；将其作为 RFT 的对齐信号，对基于密集隐式反馈（如点击）训练的排序策略进行 fine-tune，既能提升深层业务指标，又保持强排序能力。
- 奖励模型训练时，利用倾向得分（IPS）加权矫正曝光偏差，并用序数回归（Ordinal Regression）将多级漏斗转化为连续奖励分数，可作为电商推荐中多阶段转化（浏览→加购→下单→支付）等长周期目标的通用建模方式。
- 在线上系统上线新模型时，可采用 GRPO 做奖励对齐，其在深度参与指标上优于 DPO；若偏好信号密集且可靠（如基于实际漏斗阶段），DPO 也可作为轻量替代，尤其适合提升即时点击行为。
LEMUR：从偏好反馈中学习多目标强化学习的对齐框架
🧭 多目标偏好强化学习
University of Manchester · University of Sheffield · Sheffield Hallam University
通过多人偏好反馈联合学习多奖励模型与策略，无需预定义奖励函数即可平衡多个竞争目标
📌 工作参考价值（4 点）
- 交互式多目标推荐学习：在推荐系统中，可直接收集用户对推荐列表的偏好（如“列表A优于B”）而非设计显式奖励，自动学习CTR、GMV、多样性等目标的隐奖励模型。
- 无权重预设的多目标折中：不需手动指定各目标权重，通过偏好反馈隐式学习用户或业务方的偏好结构，使策略自动适应不同权衡需求，适合电商中动态变化的业务指标。
- Agent决策优化：对对话推荐或任务型Agent，可用此法同时优化任务完成率、对话长度、用户满意度等多目标，利用人类反馈交互式训练，降低奖励函数设计的成本。
- 工程借鉴：联合训练策略与多个目标奖励模型的架构可用于实际在线学习系统，配合主动查询（选择信息量高的轨迹对进行标注）提升样本效率。
LLM 当导师：面向非可验证强化学习的策略感知提示自适应
🧭 LLM 训练 · 奖励信号自适应
KAIST · Upstage · University of Toronto · Carnegie Mellon University · NVIDIA
让 LLM 同时充当考官和生成器，通过追加原子约束实现提示难度自适应，恢复奖励区分度。
📌 工作参考价值（4 点）
- 在搜索推荐中使用 LLM 评委评估生成质量时，可借鉴 append-only 约束生成方法，随策略能力提升动态增加评估提示的难度，避免奖励信号失效。
- Agent 训练中，固定任务指令易导致简单样本无区分度，可引入自适应难度机制：比较 agent 产出质量，对简单任务自动追加新约束，维持训练信号有效性。
- 工程实现上，复用单一 LLM 完成比较判别与约束生成，原子化约束的追加方式保证难度单调递增，无需外部调度模块，降低系统复杂度。
- 在广告文案或推荐理由生成中，可动态调整评估维度（如“增加情感诉求”、“限制字数”）来持续激发模型能力提升。
面向计算机使用代理的自主评估强化学习
🧭 GUI代理 · 噪声奖励校正
Ukrainian Catholic University, Lviv, Ukraine
用VLM作为不完美奖励信号的噪声校正强化学习，显著提升GUI代理任务成功率
📌 工作参考价值（4 点）
- 当无法获得密级标签或手工奖励函数时，可以用 VLM 评分作为稀疏奖励 来微调 Agent 策略，尤其适合 UI 自动化、电商操作机器人等视觉交互任务
- 将 VLM 评估视为带噪声的二元信道，推导出 PPO 中噪声校正奖励估计器 的思路，可直接复用于任何依赖不完美自动评估的 RL 训练，例如用 LLM 评价对话质量或推荐解释
- 实验中噪声校正明显优于直接用原始评估奖励（+5.1pp），提示在落地类似方案时，必须对自动评估器的误差建模，否则噪声会削弱甚至误导策略学习
- 该方法解耦了任务评估与策略优化，意味着可以 快速迭代评估器（更换 VLM 或 prompt）而不必改动 Agent 架构，适合工程中渐进式优化
PrivacyAlign：LLM Agent 的情境化隐私对齐
🧭 Agent 情境隐私对齐与人类规范对齐
University of Waterloo · ServiceNow AI Research · McGill University · Mila – Quebec AI Institute
引入PrivacyAlign数据集和注释条件奖励建模，训练的小型开源Agent更符合人类隐私规范
📌 工作参考价值（4 点）
- 在电商Agent中防止泄露用户订单、地址等私密信息，可复刻该数据集的构建方法：收集实际泄露场景，进行多轮人工标注（包含解释），用于对齐训练与评测。
- 注释条件奖励建模：利用人类标注（标签+解释）为响应生成细粒度奖励，用于强化学习训练，可迁移到生成式推荐等任务中，避免模型输出敏感用户偏好。
- 用LLM裁判评估隐私行为时，通过条件化人类标注和解释作参考，能提高裁判的可靠性，这一技巧可直接嵌入业务自建的隐私评估流水线。
- 小模型（如Llama-3-8B）经过隐私对齐训练后，能在不牺牲通用能力下大幅提升隐私保护，证明业务场景可用较小自有模型微调实现合规。
多智能体编排的奖励建模
🧭 多智体编排 · 奖励建模 ★ 深度解读
Rutgers University · Salesforce AI Research
提出编排级奖励模型 Orch-RM，用自监督偏好对训练，无需人工标注和子 Agent 全量执行，显著提升测试时缩放和编排器训练的效率与效果
📌 工作参考价值（4 点）
- 编排级奖励信号直接用于推理：Orch-RM 在编排层面评分，无需执行子 Agent 即可选择最优编排方案，将 BrowseComp 验证成本从 142.8M token 降至 8.26M，准确率还提升 1.5%。电商多 Agent 场景（如客服路由、推荐流程编排）可借鉴，在低延迟要求下用轻量奖励模型筛选高质量协作图。
- 利用训练中间产物构造偏好对：从训练检查点和轨迹中自动构造“专用优于基础”和“正确优于错误”两类偏好对，无需人工标注。业务中若已有多 Agent 训练日志，可直接复用该自监督构造方法，大幅降低评估器标注成本。
- 奖励模型指导继续训练：Orch-RM 替代全轨迹 GRPO 的稀疏奖励，在 AIME 24&25 上使用约 1/10 的训练 token 取得 3% 的 majority vote 提升，BrowseComp 上更以 1/46 token 量实现 2% 提升。对于需要频繁迭代的编排策略模型，可大幅节省训练算力。
- 域特定奖励模型可迁移：论文训练了数学、Web QA 等域特定奖励模型，并在 GPQA（科学推理）上验证了跨域泛化能力。电商多域（推荐、搜索、客服）可分别训练编排评估器，或探索多域融合的统一奖励模型，降低重复训练成本。
Skill-RM：将异构评估标准统一为 Agent 技能的奖励模型
🧭 统一异构评估标准的 Agent 技能式奖励建模 ★ 深度解读
Alibaba · Sun Yat-sen University · The Chinese University of Hong Kong · Peking University · ETH Zürich
将奖励建模重构为可复用的 Reward-Evaluation 技能，通过过程化资源编排统一异构评估标准
📌 工作参考价值（4 点）
- 技能化评估架构：将评估逻辑封装为可复用技能（SKILL.md + 资源银行），适用于电商推荐中多维度打分（相关性、多样性、合规等）的统一编排，避免每次评估都从零开始构建提示。
- 动态资源选择与证据链：根据评估场景（如新品冷启动、大促活动）动态启用不同验证器（销量预测、内容审核、AB测试结果），使评估过程自适应且可追溯，可用于推荐理由审核或 A/B 分析。
- 可解释的奖励信号：结构化证据字段（criterion-level evidence）使得最终得分可逐项追踪，在 Agent 多智体协作中可将“为什么判为不合格”的推理过程暴露给下游模块，提升系统透明度。
- 工程实现借鉴：技能包以文件系统形式组织（SKILL.md + 脚本/规则/验证器），可轻松集成到现有 Agent 框架（如 LangChain、AutoGen）中，实现评估流程的模块化、版本管理和渐进式披露（progressive disclosure）。
RUBRIC-ARROW：交替式评分准则奖励建模，提升非可验证领域LLM后训练
🧭 奖励建模与LLM后训练·评分准则的成对偏好优化
University at Albany · Rutgers University · Purdue University · Emory University · Georgia Institute of Technology
交替训练评分准则生成器与准则条件评判器，以概率评分与成对偏好数据训练点式奖励模型。
📌 工作参考价值（4 点）
- 在电商Agent或推荐解释生成中，可借鉴 rubrics 分解评估：将整体质量拆解为独立准则（如信息准确性、说服力、风格匹配），训练准则条件评判器获得细粒度奖励信号。
- 概率评分规则能减少平局，提供更光滑的奖励分布，适合作为排序或策略优化的目标，比硬布尔聚合更稳定。
- 交替训练生成器与评判器的架构可复用于自动评估流程：业务中可先有粗粒度准则，通过交替优化不断细化准则和评判能力。
- 仅用 pairwise 偏好数据训练 pointwise 奖励模型，降低人工标注绝对分数的成本；对于成对偏好易得的场景（如用户 A/B 选择），可直接复用此方法。